L’adozione dell’intelligenza artificiale nelle organizzazioni sanitarie starebbe procedendo più rapidamente della capacità di censire e governare gli strumenti effettivamente utilizzati. È quanto emerge da un’indagine condotta da Vanson Bourne per Imprivata su 250 responsabili statunitensi di identity security e AI strategy, secondo la quale il 72% delle organizzazioni coinvolte segnala la presenza di tool o agenti introdotti senza una formale approvazione dell’IT.
Il dato va interpretato con cautela. La ricerca è commissionata da un’azienda attiva proprio nel settore dell’identity management e il campione riguarda esclusivamente organizzazioni statunitensi. Non può quindi essere considerata una misura rappresentativa dell’intero settore sanitario. La dinamica descritta, tuttavia, è coerente con una diffusione degli strumenti generativi che negli ultimi anni ha spesso preceduto l’introduzione di policy e procedure aziendali.
L’83% delle organizzazioni intervistate dichiara di aver già implementato AI in più funzioni. Il 28% ha agentic AI in produzione e un ulteriore 44% sta conducendo pilot o proof of concept. È soprattutto quest’ultimo passaggio a modificare la natura del problema. Lo Shadow AI legato ai chatbot tradizionali riguarda principalmente privacy, gestione dei dati, proprietà intellettuale e utilizzo di piattaforme non autorizzate. Gli agenti aggiungono una dimensione operativa, perché possono accedere a sistemi aziendali, utilizzare credenziali, recuperare informazioni e avviare workflow.
Solo il 17% degli intervistati considera gli attuali sistemi di identity management adeguati senza modifiche a questa nuova situazione.
“Con l’agentic AI non stiamo semplicemente aggiungendo nuovi software, ma nuove identità operative all’interno dell’organizzazione”, osserva Francesco Maria Avitto, Direttore editoriale Homnya.,“Un agente può leggere un dato, combinarlo con altre informazioni e avviare un’azione. A quel punto la questione non riguarda più soltanto chi può accedere a cosa, ma quale livello di autonomia viene attribuito a una identità non umana e come si ricostruisce la responsabilità di ciò che ha fatto.”
È una differenza destinata a pesare soprattutto quando gli agenti inizieranno a collegare applicazioni differenti. Un sistema può interrogare il CRM, un altro accedere al repository dei contenuti, un terzo classificare richieste o informazioni. Finché operano separatamente, il controllo resta relativamente semplice. Quando questi strumenti iniziano a concatenare azioni e prendere iniziative all’interno di workflow più ampi, la tracciabilità diventa molto più complessa.
La gestione delle identità non umane è infatti uno dei problemi emergenti dell’agentic AI. Se un agente opera utilizzando credenziali delegate o account condivisi, diventa necessario poter stabilire non soltanto quale persona abbia avviato il processo, ma anche quale sistema abbia compiuto ogni singola azione, sulla base di quale autorizzazione e con quale finalità.
È qui che il fenomeno dello Shadow AI rischia di diventare qualitativamente diverso dallo Shadow IT del passato. L’utilizzo non autorizzato di un’applicazione poteva esporre dati o creare vulnerabilità; un agente non governato può anche prendere iniziative.
La prima ondata della generative AI è entrata in molte organizzazioni dal basso, prima che arrivassero licenze enterprise, policy e programmi di formazione. Ripetere lo stesso percorso con strumenti capaci di agire autonomamente avrebbe conseguenze molto diverse.
